底座|内力_拆解“算力偏科”难题，智算中心下一步向何处去？

篇首语：本文由编程笔记#小编为大家整理，主要介绍了拆解“算力偏科”难题，智算中心下一步向何处去？相关的知识，希望对你有一定的参考价值。

十年前&＃xff0c;英国《经济学人》曾用工业用电量为主的指标来评估中国GDP&＃xff0c;而现在算力已经成为新的指标。似乎每个企业、每个城市都在努力增加算力。

一位读者不无困惑地留言&＃xff0c;大家都说自己算力有多少FLOPS&＃xff0c;能支撑这个大模型、那个大数据&＃xff0c;是不是数字越大就算力越强呢&＃xff1f;

还真不是。

衡量算力水平&＃xff0c;除了运算次数&＃xff0c;还要看算力精度&＃xff0c;也就是能够支持的数据精度和运算复杂度有多高。

如果说运算次数&＃xff08;FLPOS&＃xff09;代表的是内力值&＃xff0c;那么算力精度就像是“身法”&＃xff0c;决定了能否用对内力、用好内力。武林对决&＃xff0c;有人拿屠龙刀一通乱砍&＃xff0c;令狐冲靠独孤九剑剑法一击必中&＃xff0c;你觉得谁水平高&＃xff1f;

不同计算任务&＃xff0c;对算力需求不尽相同&＃xff0c;需要恰当的“身法”&＃xff0c;来发挥算力的价值。

具体来说&＃xff0c;根据数据类型的不同&＃xff0c;适配的算力精度也有所区别&＃xff1a;

比如科学计算&＃xff0c;天气预报、运算化学、分子模型、天体物理模拟等&＃xff0c;数据精度要求高&＃xff0c;需要双精度算力&＃xff08;64位&＃xff0c;FP64&＃xff09;&＃xff0c;是由超级计算机提供的一种通用算力。

AI模型训练&＃xff0c;自动驾驶、智慧城市、AIGC等业务&＃xff0c;需要学习大量数据&＃xff0c;训练出一个复杂的深度学习模型&＃xff0c;而处理大规模浮点型数据&＃xff0c;更适合用单精度算力&＃xff08;32位&＃xff0c;FP32&＃xff09;、半精度算力&＃xff08;16位&＃xff0c;FP16&＃xff09;。近年来&＃xff0c;预训练大模型爆发&＃xff0c;涌现出了DALLE、ChatGPT、紫东太初等一波波大模型&＃xff0c;参数动辄达到千亿万亿&＃xff0c;大模型的高效训练需要用到大量的单精度算力。

训练好并部署的模型&＃xff0c;实际应用时只需要根据输入的数据&＃xff0c;推理出各种结论&＃xff0c;比如人脸识别、车牌识别、语音识别等&＃xff0c;这个AI推理的过程&＃xff0c;处理的是整数型数据&＃xff0c;更适用于整型算力&＃xff08;INT8&＃xff09;。

那么问题来了&＃xff0c;一般来说&＃xff0c;某一个区域内&＃xff0c;既有高精尖科研、智慧城市、自动驾驶这类高性能计算&＃xff0c;带来了通用算力的需求&＃xff1b;又要有AI模型训练、AI应用推理等来支撑产业数转智改&＃xff0c;对专用算力的需求也很高。

如果区域内算力配置不够多样化&＃xff0c;少了某一种算力&＃xff0c;相当于等用户上了战场对敌时&＃xff0c;才发现无招可用或事倍功半&＃xff0c;必然会限制当地数字化的发展。

因此&＃xff0c;各地在进行智算中心建设时&＃xff0c;从长远来看&＃xff0c;就必须考虑算力的多样化、普适性。

但现实情况是&＃xff0c;很多地方的智算中心&＃xff0c;处于“先批快建”、各自为战的阶段&＃xff0c;由于AI产业/科学计算/产业数字化等迅猛发展&＃xff0c;迫切需要补足某种专用算力&＃xff0c;应对算力焦渴&＃xff0c;缺乏通用算力的统筹规划。

随着东数西算工程、数字中国等一系列措施的推进&＃xff0c;进入“十四五”发展新时期&＃xff0c;专用算力的通用化难题&＃xff0c;就成为掣肘地方数字经济发展的当务之急。

前不久发布的《智能计算中心2.0时代展望报告》中也强调&＃xff0c;当前个别地区选择的算力配置出现一定“偏科”现象&＃xff0c;只能满足一部分细分场景的需求&＃xff0c;不能兼顾多产业、多领域对融合算力的需求。需要推动通用算力、专用算力融合&＃xff0c;驱动应用走向纵深。

对于高校、科研机构、企业、政府等各类算力用户来说&＃xff0c;算力融合究竟能带来哪些利好&＃xff1f;

破解“算力偏科”&＃xff0c;

算力融合价值几何&＃xff1f;

一言以蔽之&＃xff0c;算力融合&＃xff0c;意味着用户可以对不同算力资源随取随用&＃xff0c;无论是办公数字化需要的通用算力&＃xff0c;还是AI应用需要的专用算力&＃xff0c;抑或是气象预报、生物预测等需要的高性能算力&＃xff0c;都可以融会贯通、博采众长&＃xff0c;支撑自身业务的发展&＃xff0c;成为一个算力“通才”。

从这个角度看&＃xff0c;通用算力、专用算力的融合&＃xff0c;会带来三重明显的价值&＃xff1a;

一是数字经济的可持续。数字经济已经成为各个区域发展的主调&＃xff0c;其中包含的算力应用场景是非常广泛的&＃xff0c;根据应用场景来进行算力部署&＃xff0c;更快地建立优势。比如某省会城市希望打造人工智能高地&＃xff0c;同时高校牵头建立遥感产业集群&＃xff0c;专用算力、通用算力相融合&＃xff0c;能支撑更加丰富的应用场景&＃xff0c;为当地数字经济的长期可持续发展提供算力保障。

二是综合成本的下降。算力基础设施的建设成本极高&＃xff0c;在前期规划时做好多种算力的配置&＃xff0c;能使基础设施的利用率提升&＃xff0c;既保证算力充足&＃xff0c;同时精益地满足各类任务所需&＃xff0c;从而提高算力的综合效益&＃xff0c;降低算力的使用成本&＃xff0c;让区域内的算力更加普惠、更多用户受益。

三是多元供应的可靠性。算力融合意味着需要不同计算单元、多种架构并存、多种软硬件兼容&＃xff0c;新型算力基础设施走向开放、多元、兼容&＃xff0c;相当于“不把鸡蛋放在一个篮子里”&＃xff0c;能够降低供应链的不确定风险&＃xff0c;长期来看能够让算力更加安全可靠。

算力融合&＃xff0c;相当于一个武林高手&＃xff0c;无论华山剑法、少林功夫、武当太极&＃xff0c;各种“身法”都能信手拈来&＃xff0c;那么面对任一种计算任务的挑战&＃xff0c;自然可以游刃有余。

纵横2.0阶段&＃xff1a;数字江湖儿女

需要怎样的算力底座

即将到来的数字经济浪潮中&＃xff0c;每个人都要化身江湖儿女、弄潮时代&＃xff0c;这时候&＃xff0c;一个通用性的算力底座&＃xff0c;就如同通晓全门派武功身法的“神助攻”&＃xff0c;可以提供全精度多元算力&＃xff0c;让用户更从容地应对业务变化和挑战。

国家工业信息安全发展研究中心在《报告》中提出&＃xff0c;智算中心在2017-2021年高速扩张的1.0阶段&＃xff0c;主要提供的是专用性的算力。从2022年开始进入2.0阶段&＃xff0c;需要利用CPU与GPU等加速芯片的异构重合&＃xff0c;来实现高精度通用算力和低精度专用算力的融合供应。

由此可见&＃xff0c;智算中心的下一步重点&＃xff0c;就是向通用算力底座发展。而建设这样一个通用算力底座&＃xff0c;有“一横一纵“两个基本要求&＃xff1a;

一横&＃xff1a;多元算力需要多元架构&＃xff0c;智算中心必须“横向”兼容。

智算中心1.0阶段&＃xff0c;采用的是垂直一体的烟囱式的方案&＃xff0c;针对性地满足高性能计算、人工智能、大数据计算等不同的应用负载&＃xff0c;通用性和兼容性比较低。多样化的通用算力底座&＃xff0c;要实现不同架构的芯片平台、不同场上的算法模型以及数据集的横向兼容&＃xff0c;让用户可以根据业务场景和计算任务选择最适合的算力方案。

一纵&＃xff1a;通用算力需要软硬协同&＃xff0c;智算中心必须“纵向”耦合。

不同技术路线的芯片、算法、模型、应用等要素&＃xff0c;需要产业链上下游的打通&＃xff0c;解决软硬件兼容性的问题&＃xff0c;芯片制造厂、中端厂商和软件开发商&＃xff0c;通过软件优化、架构整合和软硬件协同&＃xff0c;来提升计算的整体性能。

打破垂直一体模式&＃xff0c;走向“横向”兼容“纵向”耦合&＃xff0c;成为智算中心2.0时代的关键&＃xff0c;从而支撑千行百业在数字时代纵横驰骋。

见招拆招&＃xff1a;

智算中心的未来挑战

智算中心1.0阶段快速扩张&＃xff0c;统计数据显示&＃xff0c;目前中国已经有超过30个城市在建设或提出建设智算中心。未来数字经济中80%的场景和算力资源要由智算中心进行承载。这是一个巨大的机遇&＃xff0c;但机会越大&＃xff0c;所应该承担的责任也就越大。

如前所说&＃xff0c;智算中心在2.0阶段必须走向“横向”兼容“纵向”耦合的目标&＃xff0c;饭要一口口吃&＃xff0c;算力融合也要一步步走&＃xff0c;把每一个环节做好&＃xff0c;见招拆招。

具体来说&＃xff0c;智算中心的算力融合&＃xff0c;要从四个核心环节来做功&＃xff0c;分别是&＃xff1a;算力生产、算力聚合、算力调度、算力释放。

算力生产方面&＃xff0c;要具备多样化算力的供给能力。为了实现不同架构芯片的多元化融合&＃xff0c;智算中心的体系结构&＃xff0c;已经从同构计算走向异构计算&＃xff0c;国内外的科技企业如谷歌、英特尔、阿里、百度&＃xff0c;都在进行异构计算的研发。《智能计算中心2.0时代展望报告》中&＃xff0c;曙光5A级智算中心也凭借全算力精度覆盖、多样化算力供应&＃xff0c;成为产业内示范样例。

算力聚合方面&＃xff0c;要推动通用算力和专用算力的融合。目前来看&＃xff0c;业界各个厂家的智算中心建设理念是比较类似&＃xff0c;都在强调融合发展。

算力调度方面&＃xff0c;融合的算力如何灵活、精益地为各行各业所取用呢&＃xff1f;这就需要对多样算力进行统一的调度和运营。宏观来看&＃xff0c;在东数西算工程的推动下&＃xff0c;全国算力一体化网络体系已经初步形成&＃xff0c;为智算中心的算力调度建立了基础。微观来看&＃xff0c;智算中心的建设者/参与者也开始建设算力运营平台&＃xff0c;用精细化、智能化的手段来提高算力运营调度水平&＃xff0c;比如曙光智算运营的全国一体化算力服务平台等。

算力释放方面&＃xff0c;算力融合的本质目的是让千行百业用好算力、用对算力&＃xff0c;所以多样化算力如何更灵活的释放到数字产业当中去&＃xff0c;提供算力服务的应用&＃xff0c;是智算中心在2.0阶段的重中之重。

从产到用、见招拆招&＃xff0c;智算中心2.0将是真正意义上的公共算力基础设施&＃xff0c;把澎湃的内力与适配的身法&＃xff0c;交给千行百业。

一个全新的数字视界&＃xff0c;已经向各行各业的侠士们广发英雄帖。广阔的产业机会&＃xff0c;等待着大家去争取&＃xff0c;去赢得自己在这个时代的勋章。

化多元化算力为己用&＃xff0c;打开多元化的未来&＃xff0c;智算中心2.0阶段&＃xff0c;一定会有更多传奇的人和事。